Michelson wurde in Strelno (Posen), in dem heutigen Strzelno (Polen) geboren. Seine jüdischen Eltern emigrierten in die Vereinigten Staaten, als er zwei Jahre alt war.

Er begann 1869 auf der US-Marineakademie in Annapolis zu studieren und erreichte 1873 einen Abschluss. Von Anfang an faszinierte Michelson die Wissenschaft und speziell das Problem, die Lichtgeschwindigkeit zu messen. Nach zwei Jahren Studium in Europa schied er 1881 aus der Marine aus. 1883 nahm er eine Stelle als Professor der Physik an der Case School of Applied Science in Cleveland (Ohio) an und konzentrierte sich auf die Entwicklung eines verbessertes Interferometers.

Nachdem er ab 1889 als Professor an der Clark University in Worcester (Massachusetts) gearbeitet hatte, wurde er 1892 zu dem Professor und Leiter der Physikabteilung der neu gegründeten Universität von Chicago berufen. 1907 wurde Michelson zu dem ersten Amerikaner, der den Nobelpreis für Physik erhielt.

Bereits 1877, während er noch Offizier in der US-Marine war, begann Michelson mit den Planungen für eine Verbesserung der Rotationsspiegelmethode zur Lichtgeschwindigkeitsmessung von Léon Foucault. Er wollte eine verbesserte Optik und eine längere Strecke benutzen. 1878 machte er einige vorläufige Messungen mit stark improvisierter Ausstattung. Zu dieser Zeit erweckte seine Arbeit die Aufmerksamkeit von Simon Newcomb , dem Direktor des Nautical Almanac Office, der bereits Planungen für eigene Behandlungen gemacht hatte. Michelson veröffentlichte sein Ergebnis von 299.910±50 km/s 1879, bevor er zu Newcomb nach Washington DC ging, um ihn bei seinen Messungen dort zu unterstützen. Somit begann eine lange professionelle Zusammenarbeit und Freundschaft zwischen den beiden.

Newcomb erhielt mit seinem besser finanzierten Projekt einen Wert von 299.860±30 km/s, gerade noch innerhalb der Fehler übereinstimmend mit Michelsons Wert. Michelson verbesserte seine Messmethode weiter und veröffentlichte 1883 eine Messung von 299.853±60 km/s wesentlich näher an der seines Mentors.

1906 wurde von E. B. Rosa und N. E. Dorsey eine neue elektrische Methode des National Bureau of Standards benutzt, mit der sie eine Wert für die Lichtgeschwindigkeit von 299.781±10 km/s erhielten. Obwohl sich in dem Anschluss herausstellte, dass die Messung stark durch die schlechten elektrischen Standards dieser Zeit beeinflusst wurde, scheint es einen Trend für eher niedrigere Messwerte gestartet zu haben.

Ab 1920 startete Michelson mit den Planungen für eine definitive Messung am Mount-Wilson-Observatorium mit einer Grundlinie nach Lookout Mountain, eine bedeutende Erhebung auf der Südseite des Mount San Antonio (Old Baldy), etwa 22 Meilen entfernt.

1922 begann die US Küsten- und Geodäsieaufsicht mit einer zweijährigen sorgfältigen Vermessung der Grundlinie mit den gerade verfügbar gewordenen Invar-Bändern. Mit der 1924 erhaltenen Länge der Grundlinie wurden in den folgenden zwei Jahren Messungen gemacht, mit denen der veröffentlichte Wert von 299.796±4 km/s erhalten wurde.

Genauso bekannt wie die Messung ist, dass sie mit Problemen überhäuft war, von denen der von dem Rauch der Waldbrände erzeugte Dunst, der das Spiegelbild trübte, nicht das kleinste war. Es ist auch wahrscheinlich, dass die heldenhafte Arbeit der US-Geologievermessungsbehörde, mit einem geschätzten Fehler von weniger als 1 ppm durch eine Verschiebung der Grundlinie beeinträchtigt wurde, die durch das Santa Barbara-Erdbeben am 29.06 1925 verursacht wurde (geschätzte Stärke 6,3 auf der Richterskala).

Die Zeit nach 1927 markierte den Beginn neuer Messungen der Lichtgeschwindigkeit mit neuen elektro-optischen Geräten, alle wesentlich niedriger als Michelsons Wert von 1926.

Michelson suchte nach einer anderen Messmethode, aber diesmal in einer evakuierten Röhre, um Schwierigkeiten der Bildinterprätation wegen atmosphärischen Effekten zu vermeiden. 1930 begann er eine Zusammenarbeit mit Francis G. Pease und Fred Pearson um Messungen in einer 1,6 km langen Röhre in Pasadena (Kalifornien) zu machen. Michelson starb nach dem er 36 von 233 Messreihen beendet hatte. Das Experiment war wesentlich von geologischen Instabilitäten und Kondensationsproblemen befallen, bevor das Ergebnis von 299.774±11 km/s, konsistent mit den vorhergegangenen elektro-optischen Werten, in dem Jahr 1935 nach seinem Tod veröffentlicht wurde.

1887 arbeitete er zusammen mit dem Kollegen Edward Williams Morley am Michelson-Morley Experiment. Ihr Experiment zur Messung der erwarteten Bewegung der Erde relativ zu dem Äther, das hypothetische Medium, im sich Licht ausbreitet, ergab ein Ergebnis von Null. Obwohl es unklar ist, ob Albert Einstein von der Arbeit wusste, förderte sie stark die Akzeptanz der Relativitätstheorie.

1920 führte er ein Experiment mit einem 6m Balken-Interferometer durch. Der Balken mit seinem Spiegelsystem wurde vor ein 254cm Teleskop montiert. Das Licht von einem Stern wurde durch verschiebbare Umlenkspiegel zur Balkenmitte und von dortins Telekop projiziert. In dem Teleskop ist dann ein Streifensystem zu sehen. Schiebt man die Umlenkspiegel nach außen, verschwinden irgendwann die Streifen. Aus dem Abstand der Umlenkspiegel kann dann der Winkeldurchmesser des Sterns berechnet werden. Bei bekanntem Abstand auch dessen Durchmesser in Kilometer. Michelson bestimmte auf diese Weise den Durchmesser von Beteigeuze zu 386 Mio. km.